Vào giữa thập niên 1970, cả Không quân (Armée de l'Air) và Hải quân Pháp (Nationale Marine) đã yêu cầu cho một thế hệ máy bay chiến đấu mới để thay thế những máy bay chiến đấu đang hoạt động hoặc sắp vào phục vu.[9] Bởi vì yêu cầu của họ cũng tương tự, và để giảm chi phí, cả hai bộ phận ban hành một yêu cầu chung đối với đề xuất.[10] Vào năm 1975, Bộ Hàng không của Pháp bắt đầu nghiên cứu cho một máy bay mới để bổ sung máy bay nhỏ Mirage 2000, với mỗi chiếc máy bay tối ưu cho vai trò khác nhau.[11]

Vào năm 1979, công ty Pháp Dassault gia nhập với công ty MBB/BAe để tham gia trong chương trình "European Collaborative Fighter" (ECA), sau đó được đổi tên thành "European Combat Aircraft".[12] Công ty Dassault góp phần thiết kế khí động học của máy bay; tuy nhiên, dự án bị sụp đổ vào năm 1981 do yêu cầu vận hành khác nhau của mỗi nước.[11] Vào năm 1983, chương trình "Future European Fighter Aircraft" (FEFA) được khởi xướng, tập hợp Ý, Tây Ban Nha, Tây Đức, Pháp và Hoa Anh để cùng nhau phát triển một máy bay chiến đấu mới, mặc dù Tây Đức, Pháp và Hoa Anh đã có những chương trình phát triển máy bay riêng của họ.[13]

Một số yếu tố dẫn đến sự phân chia cuối cùng giữa Pháp và bốn quốc gia còn lại. Khoảng năm 1984 Pháp nhấn mạnh yêu cầu của họ cho một máy bay có khả năng hạ cánh xuống tàu sân bay và yêu cầu một vai trò đứng hàng đầu. Pháp cũng đòi hỏi một máy bay chiến đấu nhẹ hơn so với thiết kế ưa chuộng bởi bốn quốc gia khác. Tây Đức, Anh và Ý đã tách ra và thành lập một chương trình EFA mới.[9]{{#tag:ref| "Dassault demands design leadership as the price for European co-operation."[14] Tại Turin vào ngày 02 tháng 8 năm 1985, Tây Đức, Anh và Ý đã đồng ý tiến hành với dự án Eurofighter.[15][16] Bất chấp sức ép từ Pháp, Tây Ban Nha gia nhập trở lại dự án Eurofighter vào đầu tháng 9 năm 1985. Các dự án bốn quốc gia cuối cùng dẫn đến sự phát triển của máy bay Typhoon Eurofighter.[17]

Chiếc máy bay trình diễn kỹ thuật Rafale A đã xuất xưởng năm 1985 và cất cánh lần đầu ngày 4 tháng 7 năm 1986, các động cơ SNECMA M88 đang được phát triển khi ấy không được coi là đủ tiêu chuẩn để đảm bảo những chuyến bay thử ở chương trình thử nghiệm đầu tiên diễn ra tuyệt đối an toàn (dù tình trạng phát triển của chúng thường bị đánh giá dưới mức), vì thế chiếc máy bay trình diễn kỹ thuật dùng động cơ tuốc bin cánh quạt có buồng đốt lần hai General Electric F404-GE-400 như được lắp trên chiếc F/A-18 Hornet. Cuộc trình diễn kỹ thuật đã gây ấn tượng tốt cho Bộ quốc phòng Pháp và chương trình đã nhận được đơn hàng sản xuất năm 1988.

Những cuộc thử nghiệm khác tiếp tục được tiến hành, gồm cả việc chạm-cất cánh (touch-and-go) trên tàu sân bay và thử nghiệm động cơ M88, trước khi Rafale A ngừng hoạt động năm 1994. Dù Rafale A và EAP hầu như có tính năng tương đương, khi chiếc Eurofighter đầu tiên cất cánh lần đầu tháng 3 năm 1994, những chiếc Rafales đã trải qua qua ba năm thử nghiệm, gồm cả những lần thử trên tàu sân bay (Rafale C01 tháng 5 năm 1991, Rafale M01 tháng 12 năm 1991 và Rafale B01 tháng 4 năm 1993).

Ba phiên bản Rafale ở giai đoạn đặt hàng sản xuất đầu tiên:

• Rafale C (Chasseur) Máy bay chiến đấu một chỗ ngồi cho Không quân Pháp
• Rafale B (Biplace) Máy bay chiến đấu hai chỗ ngồi cho Không quân Pháp
• Rafale M (Marine) Máy bay chiến đấu một chỗ ngồi hoạt động trên tàu sân bay cho Hải quân Pháp

Nguyên mẫu Rafale C cất cánh năm 1991, chiếc đầu tiên trong hai nguyên mẫu Rafale M cất cánh muộn hơn năm đó, nguyên mẫu Rafale B cất cánh đầu năm 1993 và nguyên mẫu Rafale M thứ hai cất cánh muộn hơn cùng năm đó. Những cuộc thử nghiệm với máy phóng lần đầu được tiến hành trong khoảng thời gian từ ngày 13 tháng 7 tới ngày 23 tháng 8 năm 1992 tại các Căn cứ Không lực Hải quân Hoa Kỳ Lakehurst, New Jersey, và Patuxent River, Maryland, Hoa Kỳ; vì Pháp không có những cơ sở thử nghiệm máy phóng trên đất liền. Sau đó chiếc máy bay này đã trải qua các cuộc thử nghiệm trên boong tàu sân bay Foch.

Ban đầu dự kiến Rafale B chỉ là máy bay huấn luyện, nhưng kinh nghiệm của Chiến tranh Vùng Vịnh và chiến sự Kosovo cho thấy giá trị của phi công thứ hai trong tấn công và trinh sát, và vì thế có nhiều Rafale B được đặt hàng hơn thay cho Rafale C. Một quyết định tương tự được Hải quân đưa ra, ban đầu họ không hề đặt hàng những chiếc hai ghế ngồi; tuy nhiên chương trình đã bị dừng lại.

Sự không chắc chắn về mặt chính trị và kinh tế dẫn tới việc cho đến tận năm 1999 một phiên bản sản xuất Rafale M mới cất cánh.

Các lực lượng vũ trang Pháp từng được hy vọng sẽ đưa ra đơn đặt hàng 292 chiếc Rafale: 232 cho Không quân và 60 cho Hải quân. 120 chiếc đã được chính thức đặt hàng, chia làm ba đợt, đợt gần đây nhất là tháng 12 năm 2004 với 59 chiếc Rafale, dù Bộ quốc phòng Pháp đã cho biết con số này đang được xem xét lại và dường như sẽ bị cắt giảm chỉ còn 51 chiếc "với tổng giá giữ nguyên". Có thông tin ám chỉ rằng việc hy sinh từ 8 tới 12 chiếc máy bay sẽ "cho phép việc lắp đặt các cảm biến mới đã được các ngành công nghiệp Pháp phát triển cho gói này."

Phiên bản hải quân được ưu tiên bởi loại máy bay này được dự định thay thế cho những chiếc đã cũ, đặc biệt là máy bay chiến đấu Vought F-8 Crusader thiết kế từ 50 năm trước. Những cuộc giao hàng đã bắt đầu năm 2001 và nó 'đã đi vào hoạt động' ngày 4 tháng 12 năm 2000, dù phi đội đầu tiên, Flotille 12, thực tế chưa được cải tổ cho tới tận ngày 18 tháng 5 năm 2001. Đơn vị hoạt động trên tàu sân bay Charles de Gaulle năm 2002, đã ở tình trạng hoàn toàn sẵn sàng chiến đấu ngày 25 tháng 6 năm 2004, sau một cuộc thử nghiệm đánh giá hoạt động kỹ lưỡng, gồm cả nhiệm vụ hộ tống và tiếp dầu trên không trong Chiến dịch Tự do Vĩnh viễn (Operation Enduring Freedom) tại Afghanistan. Dù được giới hạn trong vai trò đối không và tầm hoạt động hạn chế của vũ khí, chiếc Rafale M được xem là một trong những loại máy bay chiến đấu tân tiến nhất đang hoạt động tại châu Âu.

Không quân nhận được ba chiếc Rafale B đầu tiên (theo tiêu chuẩn F2) vào cuối tháng 12 năm 2004. Chúng được gửi đến CEAM ở Mont-de-Marsan để đánh giá hoạt động và huấn luyện chuyển loại phi công. Đơn vị máy bay chiến đấu đầu tiên của Không quân, Phi đội Escadron de Chasse 1/7 Provence, được thành lập tại St. Dizier trong năm 2006, những chậm trễ trong việc giao hàng đã buộc phi đội này phải dời ngày thành lập. Thời hạn sẵn sàng chiến đấu ban đầu được dự định vào tháng 9 năm 2006, nhưng hiện tại đã bị lùi lại đến giữa năm 2007, cho đến khi đáp ứng đủ hoàn toàn các tiêu chuẩn một chiếc máy bay đa nhiệm vụ tiêm kích-ném bom, trang bị tên lửa không đối không Mica, tên lửa hành trình Scalp EG ASMs, bom dẫn đường GPS, và bom laser LGB (dù LGB sẽ được chọn lựa sử dụng trên thiết bị khác hay bởi các hệ thống trên mặt đất).